Ngày 23 tháng 7 năm 1951, ông hy sinh trên đường đi vào Liên khu IV công tác, do bị máy bay Pháp bắn trúng tại Phố Còng, huyện Tĩnh Gia, tỉnh Thanh Hóa.[6]

Tuy nhiên, nguyên nhân cái chết của Hồ Tùng Mậu vẫn còn nhiều nghi vấn. Theo sử gia Laura Calkins, có rất nhiều tin đồn xung quanh cái chết của Hồ Tùng Mậu. Một giả thiết đưa ra là Hồ Tùng Mậu tự tử vì trách nhiệm của ông trong vụ nạn đói ở Thanh Hóa.[7] Tình báo của Pháp xác nhận bí mật với quan chức Mỹ rằng ông bị thanh trừng.[7]